Beliau memulakan kerjaya di Hospital Besar Kuala Lumpur, dan merupakan pensyarah di obstetrik dan ginekologi di Fakulti Perubatan UKM sehingga 1995. Beliau juga pernah berkhidmat sebagai felo penyelidikan di Universiti Tokyo, dan menjadi felo di UK Royal College of Obstetricians dan Gynaecologists pada tahun 2004.[8]

Dari 1995 hingga 1998, beliau merupakan Bendahari Pertubuhan Obstetrik & Ginekologi Malaysia. Beliau juga merupakan Naib Presiden bagi Pertubuhan Menopaus Malaysia dari 1999 hingga 2000.[9] Sehingga 2009, beliau adalah seorang pakar perbidanan dan sakit puan di Hospital Pakar Ampang Puteri di Kuala Lumpur.[9] Dari 2009 hingga 2011, Dr Jemilah bertanggungjawab bagi cawangan kemanusiaan Penduduk Dana Bangsa-Bangsa Bersatu (UNFPA) di New York City, di mana beliau mengarahkan usahanya ke arah kesihatan reproduktif, keganasan berasaskan jantina, dan data penduduk kecemasan.[10]

Pada Mei 2014, Tan Sri Dr Jemilah telah dilantik untuk mengetuai Sekretariat Sidang Kemuncak Kemanusiaan Dunia di Pejabat Pertubuhan Bangsa-Bangsa Bersatu bagi Penyelarasan Hal Ehwal Kemanusiaan (UNOCHA) beribu pejabat di New York. "Saya amat bersyukur dan berbangga kerana dilantik untuk mengetuai pasukan dalam apa-apa inisiatif penting, dan bahawa Malaysia telah dipilih untuk peranan," kata Dr Jemilah dalam satu kenyataan.[11] Mengenai Sidang Kemuncak Kemanusiaan Dunia yang mengintegrasikan suara-suara mereka jarang didengar di arena antarabangsa, beliau menjelaskan, "Ini dilakukan melalui lapan perundingan serantau dengan orang terjejas, badan bukan kerajaan, ahli akademik, kerajaan, sektor swasta dan penderma baru, untuk benar-benar mempunyai perpaduan global pada keadaan semasa cabaran kemanusiaan."[12] Berdasarkan kepada apa yang beliau telah belajar di Teach for Malaysia, beliau turut berkata, jika masalah-masalah yang universal, maka penyelesaian boleh dikongsi. Menurut Dr Jemilah, perundingan adalah perlu sekarang kerana, "walaupun kemajuan dan inovasi, keperluan kemanusiaan mengatasi sambutan. Ini adalah sebahagiannya kerana dalam krisis berlarutan, seperti di Syria, di mana orang yang disesarkan oleh keganasan yang terus dengan akhir tiada di sisi, atau di Sahel, di mana kemarau berulang setiap beberapa tahun, keperluan rakyat adalah pelbagai dimensi."[13]